一個 隨機過程 是一種數學實體，用於描述受概率法則而非決定性規則支配的系統隨時間演變的過程。與單一隨機變數不同，我們從本質上將其定義為由時間索引的隨機變數集合 $\{X_n : n \in T\}$。在本課中，我們專注於 簡單隨機游走（SRW）——一種離散時間模型，模擬賭徒的財富變化，從初始值（$a$）出發，經過一系列獨立的投注逐步演進。
1. 簡單隨機游走的機制
我們將時刻 $n$ 時遊走的狀態表示為獨立增量的總和：
$$X_n = a + Z_1 + Z_2 + \dots + Z_n$$
其中每個 $Z_i$ 代表一次投注的結果：以概率 $p$ 獲勝（$+1$），以概率 $q = 1-p$ 輸掉（$-1$）。
設 $\{X_n\}$ 為一個簡單隨機游走。若 $k$ 是整數且滿足 $-n \leq k \leq n$ 以及 $n + k$ 為偶數，則在 $n$ 步後位於狀態 $a+k$ 的機率為：
$$P(X_n = a+k) = \binom{n}{\frac{n+k}{2}} p^{(n+k)/2} q^{(n-k)/2}$$
關鍵陷阱： 對於所有其他 $k$ 值（當 $n+k$ 為奇數或 $|k| > n$ 時），$P(X_n = a + k) = 0$。此「奇偶性檢查」確保你只能達到根據步數所決定的特定狀態。
2. 期望與公平性
該過程的平均軌跡取決於機率 $p$。時刻 $n$ 時的期望值為：
$E(X_n) = a + n(2p - 1)$
- 公平遊戲（$p = 1/2$）： 該過程是 馬丁戴爾（Martingale）。平均而言，財富保持不變：$E(X_{n+1} - X_n | X_n) = 0$。
- 不利遊戲（$p < 1/2$）： 該過程會向下偏移，最終導致破產。
- 優勢遊戲（$p > 1/2$）： 該過程會向上偏移。
3. 更廣闊的視野
雖然簡單隨機游走處理的是離散求和，但隨機過程也包含連續模型。例如， 泊松過程 ($N_t$) 具有獨立增量，其機率為 $P(N_t = k) = e^{-at} \frac{(at)^k}{k!}$。我們也在蒙特卡洛馬可夫鏈（MCMC）採樣的目標分佈中看到類似動態，例如 $f(y) = e^{-y^4}(1+|y|)^3$。這些過程常使用轉移記號如 $v_1 = v_0 A$。